Mishima sinh ra tại quận Yotsuya ở Tokyo (ngày nay là một phần của Shinjuku). Cha ông, Azusa Hiraoka, làm công chức còn mẹ ông Shizue, là con một hiệu trưởng tại Tokyo. Ông bà nội của Mishima là Jotarō và Natsuko Hiraoka. Ông có một người em trai tên là Chiyuki và một em gái Mitsuko, qua đời sớm do sốt ban.

Chính Natsuko Hiraoka đóng vai trò then chốt trong thời niên thiếu của Mishima vì bà là người nuôi dạy Mishima một thời gian. Thuộc dòng dõi quý tộc, Natsuko là cháu nuôi của Matsudaira Yoritaka, một daimyo của Shishido tại tỉnh Hitachi và lớn lên trong gia đình công chúa Arisugawa Taruhito; bà vẫn duy trì lễ giáo quý tộc ngay cả sau khi kết hôn với ông của Mishima. Natsuko là một người cục cằn và dễ nổi nóng, điều này thường xuyên được ám chỉ trong các tác phẩm của Mishima. Chính qua tìm hiểu Natsuko mà một số người đã phát hiện nỗi ám ảnh với cái chết của Mishima. Natsuko thường không cho Mishima ra ngoài ánh nắng hay tham gia vào bất hoạt động thể thao nào với các cậu bé khác; điều này khiến ông phải dành phần lớn thời gian một mình hoặc chơi đồ chơi con gái.

Mishima trở về sống với cha mẹ năm 12 tuổi. Cha ông, một con người của kỉ luật quân đội, đã áp dụng kỉ luật sắt với cậu bé Mishima bằng cách bồng cậu bé lên thành của một con tàu cao tốc; cha của Mishima cũng thường xuyên lùng sục phòng của ông và phát hiện những sở thích "ẻo lả" về văn chương của Mishima và xé các bản thảo đó của ông.